A Inteligência Artificial (IA) está cada vez mais presente nas dinâmicas do setor público, trazendo desafios éticos, jurídicos e operacionais. Na última segunda-feira (24/03), servidores da Assembleia Legislativa do Rio Grande do Norte (ALRN) participaram de um curso sobre "Linguagem e ChatGPT", ministrado pela advogada Mariana de Siqueira. Durante o encontro, a especialista abordou os impactos da IA Generativa na administração pública, com ênfase no Constitucionalismo Digital.

Em sua exposição, Mariana destacou a necessidade de capacitar os servidores para um uso ético e sustentável da IA, apontando os riscos envolvidos no seu emprego indiscriminado. “Na noite de segunda-feira, estive com os servidores da Assembleia Legislativa do RN em curso sobre Linguagem e ChatGPT. Em minha exposição, apresentei o tema da IA Generativa no serviço público a partir da perspectiva do Constitucionalismo Digital. Falamos sobre riscos e possibilidades, limites jurídicos e ética no uso da IA, sobretudo em se tratando de atividade estatal essencial. É preciso letrar equipes de servidores para o uso ético e sustentável da IA. Como semente plantada para o porvir, mencionei a importância e fundamentalidade de ser feita abordagem expressa e cuidadosa do tema do uso da IA Generativa em âmbito institucional nos documentos, políticas e programas de Governança, Integridade e Compliance”, ressaltou.

O avanço da IA e o Impacto no Setor Público

O uso da Inteligência Artificial no setor público não é um tema novo, mas tem ganhado cada vez mais relevância com o crescimento das ferramentas baseadas em IA Generativa. Diferente dos métodos tradicionais de aprendizado de máquina, que são essencialmente descritivos e trabalham com padrões estatísticos, a IA Generativa tem a capacidade de criar conteúdo original – seja texto, imagens ou vídeos – o que amplia seus impactos, mas também seus desafios.

Um dos pontos debatidos foi a diferença entre automação e IA. Muitos processos automatizados já fazem parte da rotina administrativa, mas nem toda automação pode ser considerada inteligência artificial. Para que um sistema seja verdadeiramente inteligente, ele precisa aprender padrões, aprimorar suas respostas e adaptar-se a novas informações – um desafio considerável quando aplicado ao setor público, que exige transparência e rigor jurídico.

Riscos e Regulamentação da IA

A legislação brasileira ainda está em fase de adaptação às novas tecnologias. O Projeto de Lei 2338/2023, conhecido como “Marco Legal da Inteligência Artificial”, busca estabelecer diretrizes para o uso responsável da IA no Brasil, mas ainda tramita no Congresso Nacional. Enquanto isso, órgãos como o Conselho Nacional de Justiça (CNJ) têm criado resoluções para regulamentar o uso da IA no Judiciário, como a Resolução nº 332/2020, que trata da governança e transparência no uso de tecnologias inteligentes.

Mariana também abordou os riscos associados ao uso indiscriminado da IA, como “alucinações” (respostas que parecem coerentes, mas são factualmente incorretas), vazamentos semânticos (quando palavras com múltiplos significados podem gerar interpretações errôneas) e possíveis violações de direitos autorais. Além disso, foi discutido o impacto ambiental do uso dessas ferramentas, já que pesquisas recentes mostram que um simples diálogo com o ChatGPT pode consumir cerca de 500 ml de água, usada no resfriamento dos servidores que processam as informações.

Governança e uso Responsável da IA

A implementação da Inteligência Artificial no setor público precisa seguir princípios de Governança, Integridade e Transparência. Segundo a Unesco, a transparência no uso da IA é essencial para garantir que essas ferramentas sejam aplicadas de forma responsável. No Judiciário, por exemplo, há iniciativas para tornar obrigatório que magistrados e servidores declarem quando utilizam IA Generativa em documentos oficiais, evitando equívocos e assegurando supervisão humana.

Outro ponto relevante discutido foi a capacitação dos servidores para lidar com essas novas tecnologias. De acordo com uma pesquisa realizada pelo CNJ, cerca de 50% dos magistrados e servidores já tiveram contato com ferramentas de IA, mas a maioria declarou que não sabe utilizá-las corretamente. Isso reforça a necessidade de letramento digital para que o uso dessas ferramentas seja feito de maneira eficiente e ética.

Com isso, podemos concluir que a Inteligência Artificial está revolucionando diversos setores, e o serviço público não é exceção. No entanto, sua implementação deve ser feita com responsabilidade, considerando limites jurídicos, éticos e ambientais. A qualificação dos servidores e a criação de normativas claras são passos fundamentais para garantir que a IA seja uma aliada na modernização do Estado, sem comprometer direitos e valores essenciais.